Lean Finder V2:面向 Mathlib 的语义搜索与查询消歧
🧭 语义搜索 · 查询改写与消歧
Simon Fraser University · Rice University · University of Pittsburgh
用对抗训练生成大规模短歧义查询,结合模型微调与输入层改写,在 MathlibQR 上至少相对提升 11%
📌 工作参考价值(4 点)
- 用对抗训练补足“短歧义 query”数据:电商搜索里“苹果”“nike 卫衣”等短查询经常缺 context;可仿照用生成模型 + 判别器迭代生成大量带标签的歧义 query,而不是只靠真实日志,显著扩充训练集,解决数据稀疏。
- 模型层 + 输入层双层消歧:同时 fine-tune 检索模型(增强对短 query 的鲁棒性)并在检索前对 query 做改写/补全(如加类目、属性、别名),两者互补;在商品搜索或 Agent 工具检索中可分开评估增量,避免只做单一层。
- 面向真实短查询做人类评估基准:构建少量人工标注的短 query benchmark,用 unlabeled 真实 human/agent 交互做 ranking 评估,比离线 dense retrieval 指标更贴近线上体验。
- 检索质量直接挂钩下游 agent 任务成功率:与 Claude Code 集成后证明 proof success 提升,说明 Agent 工具检索/商品召回改善能直接转化为任务成功;建议将检索召回作为 Agent 流程中的关键优化点。
基于语料反馈的多步对话查询改写
🧭 对话查询改写 · 检索反馈 ★ 深度解读
INESC-ID · Carnegie Mellon University · Amazon
将对话查询改写重构为多步检索过程,Agent 通过检索反馈依次执行意图消解、词汇改写和伪文档生成,仅用检索奖励训练即超过单步改写基线
📌 工作参考价值(4 点)
- 把 query 改写/扩写从单步改为多步,动作类型化为 intent、rephrase、HyDE、stop,并让后续动作显式看到前一步 top-k 结果。可直接套在电商搜索的 query 改写、广告选词、push 文案生成,尤其适合需要反复试探语料分布的召回场景。
- 不需要人工 rewrite 标注,仅用检索指标(如 rank-based reward、nDCG)做强化学习,就能让策略自动学会“先消歧、再词汇对齐、最后做伪文档匹配”的步骤顺序;可以降低标注成本,并更容易与已有召回器对齐。
- 伪文档动作不是简单复制检索结果,而是吸收已检索 passage 的词表;8-gram 复制检测和 unigram Jaccard 可用于线上安全/去重审计。推理成本要按场景估算,设置 max steps 和早停可控制 token 开销。
- 在 BM25 上训练的改写策略可零样本迁移到 dense retriever(尤其强的 embedding model),意味着可以用廉价稀疏检索离线训练、线上换更强的向量召回,或反向验证鲁棒性。
重排序与晚期交互驱动检索质量:科学问答 RAG 策略受控对比
🧭 RAG 检索策略对比评测 ★ 深度解读
San Jose State University, Department of Computer Science
在46万篇arXiv语料上系统对比6种RAG检索管线,ColBERT晚期交互与改写加重排效果最好,融合与Agent检索反不及基线
📌 工作参考价值(4 点)
- 电商商品搜索/内容推荐的知识增强检索中,若当前向量召回是单向量池化,可优先评估 ColBERT/PLAID 这类 late-interaction 索引:同语料下 Hit@3 从 47–53% 翻倍到 93–95%,对最终生成质量有直接提升;代价是建索引与检索成本更高,适合高价值 query 或小规模候选集召回。
- LLM 查询改写不能单独上:改写可能让 query 漂移,尤其意图型 query 的 Hit@3 反下降(39.7% vs 46.3%)。实践中若上改写,必须接一个 reranker(listwise LLM rerank 或 cross-encoder),让改写+重排作为整体管线,否则不如直接 raw query 检索。
- 多查询融合 RRF 和 Agentic tool-call 在这些实验里没有带来增益,反而显著低于经典基线;业务引入 agent 自主决定是否检索时需要明确回答率与成本约束,不能因为“更智能”就默认更好。
- 评测设计可复用:固定 generator、prompt、文档池,用配对查询差异(paired delta + 95% CI)而非只看均值;LLM-as-a-judge 用不同模型家族以避免 self-preference;同时报告 answer rate 和 conditional score,避免拒答/零分扭曲结论,并报告 Hit@1/Hit@3/MRR@3 与生成质量的相关性。
Think-to-Personalize:统一推理与检索的用户中心个性化密集检索
🧭 LLM 推理驱动的个性化查询改写与密集检索 ★ 深度解读
University of Science and Technology of China · Meituan
提出 TTP 框架,用 LLM 显式推理用户历史生成意图增强查询,并与密集检索端到端联合训练,线上订单量提升 0.46%
📌 工作参考价值(4 点)
- 端到端联合优于解耦流水线:把 LLM 生成的 intent-enhanced query 与共享检索编码器联合训练,比独立 rewrite-then-retrieve(Decoupled-Stage)在 General 上 Recall@20 高 1.63 个点,Broad 上高 3.66 个点;电商搜索/召回链路若已有 LLM 改写模块,可尝试将其嵌入检索塔共同优化。
- 意图增强数据构造可复用:用大模型按偏好抽取、意图消歧、查询纠正三类进行改写,生成 5 候选,再用 reranker 按 ground-truth 成交商品过滤并采样 top3,同时保留不改写样本防止过度个性化;这套流程可直接迁移到搜索 query 改写、搜索建议或 push 文案生成。
- RL 对齐的两个关键 trick:GRPO 中用冻结 SFT 模型计算检索奖励,避免 reward hacking(unfrozen reward model 导致平均 R@20 从 44.97 暴跌到 29.53);奖励用 ΔS_pos + ΔS_margin 两项,并动态选择奖励最大的 rollout 作为对比正样本,显著稳定训练。
- 在线效率方案:head query 走离线个性化 cache(覆盖 10.59% QV),miss 用蒸馏 305M 双塔实时服务,蒸馏时加入 <q_r, p+> 和 <q, q_r> 目标,保留大部分效果(平均 R@20 43.10 vs 教师 44.97),端到端延迟仅增 0.15ms,适合大规模部署。
修辞角色感知的领域RAG:面向印度最高法院判决的法律问答
🧭 领域增强RAG · 修辞角色分块
National Institute of Technology, Tiruchirappalli · National Institute of Karnataka, Surathkal
提出修辞角色分块、混合检索与查询改写的领域RAG框架,提升法律多轮问答的上下文召回与答案相关性
📌 工作参考价值(4 点)
- 修辞角色分块可迁移至电商内容理解:对商品标题、详情、评论按修辞角色(属性、评价、场景)分块,提升检索与生成相关性。
- 多轮查询改写增强对话Agent:利用历史与意图分类进行查询改写,可解决电商导购、客服场景中的指代消解与意图漂移。
- 结构感知提升专业领域检索:提取文档中的实体(如法官姓名)类似电商中的品牌、规格,可作为稀疏特征加入检索或重排序。
- 混合检索与交叉编码器重排序:在商品搜索或推荐Agent中直接复用,融合稠密与稀疏检索信号,再用交叉编码器精排,成本可控且效果提升明显。
CIR 在 iKAT SCAI 2026:探索代理式对话搜索中的澄清需求预测
🧭 代理式对话搜索 · 澄清需求预测
TH Köln
构建代理式对话搜索系统,比较两种澄清需求预测模型在混合主动搜索中的效果
📌 工作参考价值(4 点)
- 代理式架构将检索、重排序、生成等组件工具化,由编排代理统一调度,这种设计可直接复用到对话推荐系统,实现多轮交互中的灵活工具组合与状态管理。
- 澄清需求预测模型可作为对话推荐的关键触发器:在商品属性模糊或用户意图不确定时,主动生成确认性问题(如“您更看重价格还是品牌?”),提升推荐精度与用户体验,尤其适用于高客单价决策场景。
- 采用轻量级 BERT 变体做二分类判断“是否需要澄清”,工程上易于集成进现有搜索/推荐 pipeline,延迟低,可作为强化学习智能体的 reward 信号或规则的前置条件。
- 混合主动(mixed-initiative)模式让系统在必要时介入提问,而非完全被动响应,平衡了自动化与人工干预,可降低推荐冷启动和长尾 query 的失败率。
库存感知的RAG生成式AI模型实现搜索广告查询改写
🧭 查询改写与广告库存对齐 ★ 深度解读
Walmart AdTech
通过实时库存感知的RAG+LLM查询改写,将无广告填充的搜索比例从13%大幅降低,填充率提升68%
📌 工作参考价值(4 点)
- 零填充查询改写策略:可借鉴「识别→检索→改写→混合」流程,先通过规则分类器识别低效查询,再基于库存感知的RAG生成候选改写,最后混合历史高点击查询,直接复用至电商广告系统的查询召回阶段。
- 两塔BERT + LoRA LLM 的架构组合:用双塔模型做语义检索得到 Top-N 商品,将其属性拼入 prompt 作为上下文,再用 LoRA 微调的 Llama2 生成改写查询,这种轻量微调方式适合业务快速迭代。
- 离线评测设计:刻意选取历史零填充查询作为测试集,直接衡量改写模型的填补能力,同时用 NDCG@8 评估相关性,可作为广告改写效果的兜底指标。
- 动态库存感知的即时性:实时检索向量数据库中的可用广告库存并考虑预算,生成与可投放商品绑定的查询,避免改写后仍然无广告可投的尴尬。
基于学习稀疏检索和列表重排序的多轮RAG系统
🧭 多轮对话RAG · 稀疏检索 · LLM重排序
University of Amsterdam
结合学习稀疏检索与LLM重排序的多轮RAG管道,利用完整对话历史提升跨域泛化与鲁棒性
📌 工作参考价值(4 点)
- 多轮对话历史的全上下文利用:使用LLM基于完整对话历史进行查询重写、重排序和生成,可迁移至电商客服/购物助手的多轮对话状态跟踪,提升连贯性。
- 学习型稀疏检索(LSR)的跨域泛化:在不同商品类目或业务场景下无需频繁微调,适合电商导购、售后等多种语域快速冷启动。
- 无法回答查询的识别与处理:在客服场景中可借鉴其拒答/转人工机制,提升系统安全性与用户体验。
- 列表式重排序增强候选质量管理:利用LLM长上下文进行listwise重排序,可在对话式推荐中对候选商品列表进行全局排序,提升推荐精度。
STORM:奖励引导束搜索的逐步 token 优化查询扩展
🧭 查询改写与词汇扩展 · 奖励引导束搜索 ★ 深度解读
MILA – Quebec AI Institute & ILLS · Université Paris-Saclay & CentraleSupélec & CNRS · Air Liquide · Sorbonne Université & ISIR & CNRS · Sapienza, University of Rome
将检索奖励转化为 token 级信号,通过奖励引导束搜索训练 LLM 生成高效关键词,在不改变索引下大幅提升 BM25
📌 工作参考价值(4 点)
- 奖励信号粒度下放:将检索质量指标(如 nDCG)转化为 token 级反馈,在生成过程中实时剪枝,解决序列级奖励延迟与稀疏问题。这一思路可直接用于电商搜索/推荐中的 query 改写、标题优化、对话式 Agent 的关键词生成,用业务指标(CTR、转化率)替换 nDCG 即可训练。
- 低成本高效重写:STORM 训练的 LLM 输出短关键词串,推理延迟接近 BM25,适合在线实时场景。电商搜索可部署为轻量级改写模块,不增加检索延迟,却显著提升召回与相关性。
- 自监督训练摆脱人工标注:无需人工改写对,只需相关性判断或近似信号(如点击日志、伪标签)。可借鉴其利用交叉编码器伪标签蒸馏到生成式改写器的方法,在标注稀缺的电商场景快速冷启动。
- 多语言零样本迁移:仅用英文 MS-MARCO 训练,即可迁移到多语言 BM25 索引,效果超越专用多语言稠密检索器。对跨国电商平台,可简化多语 query 改写部署,无需额外训练。